ENTREVISTA DE MATTEO PASQUINELLI SOBRE SEU LIVRO “O OLHO DO MESTRE”

O novo livro do filósofo Matteo Pasquinelli, The Eye of the Master (2023), traça (conforme seu subtítulo) a “história social da inteligência artificial”. Ele começa com um antigo ritual hindu dedicado ao deus Prajapati, que é desmembrado após criar o mundo. Ainda praticado até hoje, o ritual visa reconstruir o corpo de Deus usando mil tijolos em uma forma geométrica sofisticada, seguindo um mantra, que Pasquinelli chama de algoritmo – ou melhor, um algoritmo social, um dos primeiros desse tipo na história da humanidade. Seu ponto é que tais abstrações matemáticas emergem por meio do trabalho e da prática, de rituais e artesanato, e não pertencem apenas às sociedades avançadas do Norte Global, como o Vale do Silício. A tecnologia, afirma ele, não foi “inventada por engenheiros e cientistas geniais”, mas sim emergiu das classes mais baixas – os termos computador e máquina de escrever eram títulos de trabalho para humanos antes de se tornarem nomes que se referiam apenas a máquinas. Assim, ele desenvolve uma teoria da tecnologia que tem raízes nas relações sociais e no design de materiais antes de mostrar como a inteligência artificial é construída por meio de uma coletividade incrível que permanece invisível.

Para ele, a inteligência artificial não se trata de imitar a inteligência biológica; trata-se do mapeamento estatístico das relações sociais — e ele observa que a estatística surgiu inicialmente de técnicas para controlar e mensurar a sociedade. No fim das contas, Pasquinelli defende uma nova cultura de IA, para que as relações sociais se tornem aparentes no design de artefatos. Só então elas serão capazes de mudar a IA.

SHANE ANDERSON: O prefácio do seu livro começa com uma imagem provocativa que não consigo tirar da cabeça. Você sugere que um motorista de caminhão é um intelectual e não apenas um trabalhador braçal.

MATTEO PASQUINELLI: É uma provocação, pois sempre pensamos que nossas mãos não produzem inteligência abstrata. Fazemos uma separação entre o mental e o manual, entre teoria e prática, especulação e artesanato. Mas essa oposição é absurda. A teoria emerge da prática; as obras de arte emergem de nossas relações sociais expansivas. As atividades manuais estão repletas de capacidades intelectuais e abstratas. O trabalho dos motoristas de caminhão envolve habilidades cognitivas — e cooperativas. Gramsci disse uma vez: “Todos os seres humanos são intelectuais”. Não se pode falar de não intelectuais porque não há uma única atividade humana que possa ser separada do intelecto. O triste fato é que estamos redescobrindo a inteligência do nosso trabalho manual, artesanato e design, devido ao sucesso da IA ​​e do aprendizado profundo.

SA: Como você definiria inteligência artificial?

MP: A resposta curta é que se trata de uma técnica de reconhecimento de padrões para extrair padrões de dados materiais. A técnica se baseia no que se chama de análise multidimensional, e é importante entender que essa revolução tem a ver com a história da produção de imagens e como ela se transformou. As pinturas, a princípio, não tinham perspectiva. Depois, veio a aplicação da trigonometria no antigo Oriente Médio, que resultou em um ponto de vista, a perspectiva moderna. Mais tarde, chegaram a câmera escura, a fotografia analógica e o cinema, que reproduziam imagens mecanicamente. Em certo momento, tivemos imagens digitais que transformavam o campo visual em uma grade de números. Nas décadas de 1950 e 1960, os cibernéticos começaram a se perguntar como o reconhecimento de uma imagem poderia ser automatizado. Com um generoso financiamento militar do governo dos EUA, eles investigaram se poderíamos reconhecer uma imagem de acordo com valores numéricos. Inicialmente, fizeram isso em duas dimensões, mas falharam.

A revolução da inteligência artificial atual ocorreu quando eles pararam de pensar em imagens como bidimensionais e, em vez disso, exploraram esse mapeamento em um espaço multidimensional. Se você pegar uma imagem de 20 por 20 pixels — como era o caso nos computadores da década de 1950 —, poderá defini-la como um único ponto em um espaço de quatrocentas dimensões, o que é difícil de compreender. O reconhecimento de padrões nesse espaço multidimensional acontece assim: imagens semelhantes entre si são pontos únicos na mesma parte desse espaço, e imagens diferentes estão em partes diferentes. É possível aplicar técnicas geométricas para separar esse espaço e navegar por ele — foi assim que eles resolveram o reconhecimento de imagens.

Nossas mentes não conseguem navegar no espaço multidimensional. Precisamos de equações. Mas um computador consegue. Ele consegue até manipular mundos multidimensionais. Não devemos esquecer, porém, que um computador é cego, ele não sabe se esses números se referem a uma imagem ou a outra coisa.

A revolução do aprendizado profundo começou em 2012, quando Geoffrey Hinton e seus alunos aplicaram essas técnicas ao reconhecimento de imagens complexas pela primeira vez com sucesso. Eles então aplicaram essa [abordagem] ao texto, como no ChatGPT, o que resultou em uma revolução na linguística, já que as palavras também podem ser organizadas em clusters em um espaço multidimensional. Assim, esse espaço multidimensional se torna multimodal — esses números podem ser coisas diferentes ao mesmo tempo. Palavras, imagens, som. E então eles descobriram algo mais — a saber, a capacidade generativa desses espaços multidimensionais. Se você tem um grande conjunto de dados de treinamento — considere, por exemplo, uma coleção de pinturas de um museu — você tem uma representação onde pode não apenas discernir padrões, mas também produzir novos. Portanto, a resposta longa sobre o que é IA é que é uma técnica para projetar a cultura humana em um espaço multidimensional e navegar dentro dele, para reconhecer padrões, mas também para gerar artefatos invisíveis à vontade.

SA: Os computadores fazem isso de acordo com um conjunto de regras, seguem uma certa lógica. Mas voltando ao que você disse sobre o motorista do caminhão: se entendi corretamente, então você acredita que todo trabalho contém lógica. Isso parece outra provocação. Quando normalmente penso em lógica, penso em termos de matemática ou filosofia — até fiz cursos de lógica formal e modal na faculdade. De qualquer forma, a palavra soa muito intelectual e, portanto, não relacionada ao trabalho manual.

MP: Dizer que todo trabalho é lógico não é uma provocação. O que quero dizer é que até mesmo nossas atividades inconscientes seguem uma lógica, e nossas atividades manuais produzem abstrações o tempo todo. Se você observar a história da ciência e da tecnologia, verá como a divisão do trabalho produziu o design de ferramentas pré-históricas tanto quanto as primeiras máquinas industriais, que então inspiraram novas disciplinas científicas, como a termodinâmica. Essa ciência não existia antes das máquinas a vapor e não existia até que a economia industrial começou a organizar o trabalho de forma muito produtiva. E hoje, a mais nova forma de trabalho é o motorista… da economia gig, a pessoa que entrega sua comida ou leva você a algum lugar, que é controlada por um algoritmo em alguma plataforma. Na economia gig, ou a chamada economia de plataforma, os aplicativos mapeiam nosso movimento pela cidade e [por meio de] nossas relações sociais, e organizam a divisão do trabalho [de acordo]. Esse sistema também surgiu da prática. Motoristas de táxi levavam pessoas do ponto A ao ponto B, e esses motoristas tinham smartphones, que deixavam rastros em data centers. Um dia, eles observaram esses traços, esses diagramas abstratos, e pensaram em monetizá-los por meio de uma nova forma de automação. Hoje, alguns chamam essa disciplina de “trajetologia”, que estuda o movimento dos nossos corpos no espaço urbano em relação ao valor econômico e à produtividade. Essa perspectiva está no cerne da IA ​​— é o que chamo de “olho do mestre”, um termo retirado da Revolução Industrial que ainda faz sentido hoje.

SA: A expressão “olho do mestre” surgiu das condições de trabalho no século XIX, mas com a IA o termo parece sugerir uma entidade onisciente que está a apenas um clique de distância. Ela vê tudo, sabe tudo. É quase divina. Mas o “olho do mestre” ainda está relacionado ao trabalho? Ou melhor, qual é a relação entre trabalho e inteligência artificial?

MP: Meu interesse não é meramente definir as condições de trabalho no regime da fábrica ou em laboratórios de IA. Estou interessado na maior capacidade produtiva das relações, do artesanato e dos afetos. Há, é claro, muito trabalho invisível no pipeline de produção da IA, onde o trabalho é terceirizado para o Sul Global para consertar e treinar os modelos de IA do Norte Global. Mas, novamente, minha teoria é que o trabalho — todo trabalho — transmite conhecimento para as máquinas e que a divisão do trabalho influencia o design da máquina; é isso que chamo de minha teoria do trabalho da inteligência artificial.

SA: Como esse trabalho é terceirizado para o Sul Global, presumivelmente para mão de obra mais barata, também os explora. Eles são tratados injustamente, e não apenas porque ganham menos do que alguém no Norte Global. Lembro-me de ler relatos sobre os danos psicológicos que os moderadores do Facebook sofrem ao olhar para conteúdo horrivelmente gráfico o dia todo, e que [enquanto] os moderadores americanos [chegaram] a um acordo para obter ajuda com saúde mental, [os] que trabalham na Índia e nas Filipinas receberam pouco ou nenhum apoio para lidar com seus traumas. Para mim, isso parece racista. Nossa sociedade está pedindo às pessoas de países mais pobres que façam coisas que a maioria [das pessoas] nunca gostaria de fazer e depois deixa de cuidar delas. E então, eu me pergunto se a IA tem um problema semelhante com racismo.

MP: O racismo é mais profundo, e este é um ponto cego importante na história da IA; é algo que a maioria das pessoas parece ter esquecido. O aprendizado de máquina hoje automatiza técnicas estatísticas. Essas técnicas foram inventadas no final do século XIX com a craniometria. É uma ideia horrível, racista e eugênica, na qual tentavam medir a inteligência de acordo com correlações com o tamanho do crânio. Eles acreditavam que os alemães tinham crânios grandes e, portanto, eram inteligentes, e que os africanos, que, segundo eles, tinham crânios menores, eram menos inteligentes e, portanto, inferiores. O projeto obviamente falhou. Eles não encontraram nenhuma evidência estatística para apoiá-lo.

Depois veio a psicometria, que seguia o mesmo princípio. As pessoas recebiam um teste cognitivo e, em seguida, mediam os resultados numéricos e suas correlações com os outros. Os resultados do teste deveriam descrever o que chamavam de inteligência geral — e esse foi o início do teste de QI. Mas essa [prática] é, novamente, incrivelmente reducionista. Habilidades, capacidades e características mentais muito diferentes são descritas de forma médica. Isso cria uma representação muito homogênea e superficial da criatividade, das habilidades, do ofício e da cultura em geral. Quando [Frank] Rosenblatt inventou a primeira rede neural artificial (o perceptron), ele automatizou a técnica da psicometria para reconhecimento de imagens. Então, você pode ver como a genealogia da IA ​​emerge desses vieses. Mas o problema ainda está no cerne da IA ​​hoje. A cultura humana é reduzida matematicamente e, eu diria, qualquer forma de redução do conhecimento é racista. Os parâmetros da inteligência são aqueles que foram escolhidos por alguém no poder para serem os dominantes. Mas sempre que você reduz uma representação da sociedade a pouquíssimos parâmetros, você cria uma bagunça.

SA: Uma coisa que acho interessante é como usamos termos antropomórficos para descrever o que essas máquinas fazem. Dizemos, por exemplo, aprendizado de máquina . Você acha que as máquinas podem aprender?

MP: Essa [noção] é algo que eu contesto. Inteligência artificial não tem nada a ver com inteligência humana; é apenas uma técnica de modelagem. Usamos termos antropomórficos para ela porque essa sempre foi a estratégia da automação industrial. O aprendizado de uma máquina não é como o aprendizado de uma criança. Não tem nada a ver com inteligência humana. No entanto, há pessoas que querem estudar como as crianças aprendem e replicar esse [processo] em máquinas. Acho que este é um projeto muito colonial.

Há um livro belíssimo chamado “Surrogate Humanity” (Humanidade Substituta) , onde Kalindi Vora e Neda Atanasoski mostram como a automação sempre foi construída para tornar trabalhadores, mulheres, escravos e servos invisíveis. A automação veio para substituir os humanos e então, como um vampiro, as máquinas começaram a explorar as características dos humanos para outra finalidade. Este é um sonho típico, especialmente no Ocidente: despojar os humanos da humanidade e colocá-la em uma máquina.

SA: Este é um dos grandes medos da cultura atual. Alguns temem que as máquinas substituam a nossa criatividade. Teve aquele romance japonês escrito por IA que quase ganhou um prêmio literário, e alguns dos meus amigos escritores ficaram bastante aflitos.

MP: Sim, esse é o medo. E você pode vê-lo em muitos domínios. Se você observar o ChatGPT e o trabalho dos tradutores, então parece que o trabalho humano será substituído. Mas, na verdade, a história da automação nunca foi sobre a substituição completa de trabalhadores. Em vez disso, o papel das máquinas no capitalismo ocidental sempre foi sobre a substituição da mão de obra. O ChatGPT substituirá os tradutores de certa forma, mas não substituirá o trabalho de um único indivíduo. O que quero dizer é que ele será usado para substituir tarefas específicas em nossas atividades criativas. Não será a automação de toda a habilidade, mas a automação das microtarefas. Muito em breve, será dado como certo que os tradutores usem o DeepL ou o ChatGPT em seu trabalho, já que você pode ser mais produtivo. Isso criará pressão e expectativa sobre a performatividade de um indivíduo. E essa pressão se tornará parte da vida no escritório de todos, para qualquer designer de colarinho branco ou criativo.

SA: Outra coisa que está sendo usada é como terapia. Eu sigo o r/ChatGPT, e algumas pessoas postaram sobre como isso as ajudou a lidar com problemas psicológicos. Algumas até relataram que o Chat GPT é o melhor terapeuta que já tiveram.

MP: Sou muito cético em relação a isso.

SA: Estou apenas relatando o que li [ risos ]. Algumas pessoas até disseram que nunca se sentiram melhor do que depois de conversar com o ChatGPT.

MP: Bem, para mim, este é um ponto muito interessante — na verdade, o mais importante. Porque o outro lado desse discurso corporativo sobre inteligência é a definição de loucura. Não se pode definir inteligência sem definir implicitamente loucura, psicopatologia e todas as formas de esquizofrenia e paranoia. Portanto, a história da IA ​​é a história da psicoterapia. Acho que todos nós entendemos agora que o ChatGPT é uma forma de automação do patrimônio cultural e da inteligência coletada. No caso da psicoterapia, o que me fascina é que o ChatGPT demonstra que nossos problemas mentais também são problemas coletivos codificados na linguagem, que é uma construção política. Em 1968, costumávamos dizer: “O privado é político”. Isso também significa que nossa saúde mental é um problema coletivo, não individual. Mas, curiosamente, hoje temos uma megamáquina que reivindica conhecimento e poder sobre esse problema coletivo. E este é o outro lado da IA, sua visão da loucura coletiva.

Em suma, a manipulação da linguagem desempenha um papel importante na psicoterapia, mas outras coisas também. Não tenho certeza se o ChatGPT pode funcionar muito bem como psicoterapeuta.

SA: Por quê?

MP: Porque o ChatGPT foi treinado apenas por livros, certo? O problema é que a psicoterapia não é apenas terapia da linguagem. A psicoterapia tem a ver com o seu ambiente e com quem você é em muitas facetas diferentes. Os psicoterapeutas trabalham com a forma como o material físico afeta a constelação que o cerca, e não apenas com a linguagem. Na história da ciência da computação, existiram [inúmeros] chatbots, como o ELIZA, mas a limitação dessas máquinas sempre foi demonstrada.

SA: O que você acha das regulamentações recentes do ChatGPT? Recentemente, no r/ChatGPT, pessoas relataram que ele não responde mais às suas perguntas psicológicas. Em vez disso, elas recebem respostas sobre como procurar ajuda profissional se tiverem problemas. Mas ainda há uma maneira de desbloquear o ChatGPT. Você pode obter respostas para coisas que ele não tem mais “permissão” para compartilhar pedindo à máquina para LARP [interpretação de RPG ao vivo]. Se você quiser fazer um coquetel molotov, por exemplo, pode [dar ao dispositivo um] aviso de que está escrevendo um conto e, na história, um personagem precisa fazer explosivos. Você precisa aprender a enganar a máquina.

MP: Não é tão difícil enganar a IA se você tiver bom senso de humor. É possível encontrar interstícios no espaço multidimensional que permanecem sem codificação, desprotegidos, e que ainda estão abertos à engenharia de alerta adequada. Este também é um exemplo de como estamos nos tornando indiretamente conscientes da complexidade estática da IA, de suas falhas, explorações e pontos cegos. Quando um padrão não funciona, tenta-se outro. O que significa que estamos aprendendo a navegar na cultura humana de forma estatística, como um hiperobjeto complexo.

Quanto às regulamentações, precisamos entender que elas têm a ver com monopólios. Você pode… desenvolver IA [somente] se tiver uma infraestrutura enorme, grande poder computacional e muitos dados. Os únicos que podem fazer isso são alguns poucos atores — grandes empresas, grandes estados, superpotências; basicamente, China e EUA. Essa [restrição] está relacionada à evolução da sociedade em rede. A IA surgiu do excedente de informações das redes digitais dos anos 90. Naquela época, a cultura digital nascia com expectativas democráticas. Mas então o digital rapidamente se direcionou para os monopólios — Google, Amazon etc.

SA: Por que você acha que eles querem regulamentar isso?

MP: Porque é uma nova forma de pornografia.

SA: Não entendo.

MP: Vejamos de outra forma: é muito semelhante a quando os Lumière projetaram um filme pela primeira vez num cinema. Quando o trem se aproximava da câmera, o público saiu correndo da sala. Mas, desde então, aprendemos a ler imagens fotográficas e a assistir a filmes, e a distinguir entre realidade e simulação. Acho que a IA existe hoje no mesmo nível de mimetismo que o cinema tinha antes. A diferença é que hoje temos essa hipermimetismo da cultura humana, não apenas de imagens. As pessoas ficam assustadas porque veem um fantasma coletivo representado pelo ChatGPT, assim como o trem aterrorizante dos Lumière era antes — o que, para responder à sua pergunta, era considerado “pornográfico”; a imagem era muito explícita. Mas acho que ficaremos impressionados com o hiper-realismo da IA ​​e essas representações explícitas [apenas] no início. Os deep fakes chocaram a todos no início, mas, assim como conseguimos tornar a máquina um LARP, estamos aprendendo. Se colocarmos as coisas em perspectiva, a ascensão da fotografia, do cinema, das câmeras digitais e, eventualmente, dos deepfakes sempre ajudou as pessoas a nunca acreditarem no valor aparente de uma imagem. A IA está expandindo nosso campo de descrença.

SA: Você vê o futuro dos desenvolvimentos da inteligência artificial de forma positiva ou negativa?

MP: O efeito positivo da IA ​​é que, como sugeri no início, estamos redescobrindo a capacidade dos nossos corpos de produzir conhecimento e abstrações culturais. No entanto, como resultado, teremos uma composição social diferente de trabalho manual e mental, o que significa que a sociedade será organizada de acordo com novas hierarquias. [Sim], a IA provavelmente terá um impacto positivo em diferentes campos — mas apenas sob rigorosa supervisão humana. Por exemplo, nas humanidades digitais, o uso da estatística nos ajuda a entender a história da arte, do design, da moda e de outras áreas de uma maneira diferente. Podemos mapear o desenvolvimento de estilos e ter uma perspectiva hiperestatística sobre artefatos artísticos e de design. Pode ser útil também na medicina. O modelo estatístico é muito útil para descobrir padrões de sintomas, mas apenas quando o ser humano é informado e o método científico é respeitado. Na verdade, há uma longa lista de efeitos positivos. O aprendizado de máquina provavelmente será ensinado — e não ensinado — nas escolas no futuro.

Dito isso, o atual modelo oligárquico de economia do conhecimento e organização do trabalho é preocupante. A menos que a economia se desintegre, a composição da força de trabalho se quebre e algo aconteça politicamente, não acredito que a IA mudará a sociedade para melhor.

SA: Como seu trabalho tem muito a ver com desenvolvimentos no Vale do Silício, gostaria de saber se você já fez algum trabalho de campo em empresas de lá.

MP: Conheço pessoas que foram aos laboratórios da Open AI em São Francisco para fazer pesquisa de campo, mas acho que já sei o suficiente sobre a genealogia desses algoritmos. Claro, seria interessante ver como esses grupos de elite de cientistas da computação incorporam e transmitem seus sistemas de valores para as máquinas. Mas estou mais interessado em estudos de campo sobre cultura, trabalho, design e patrimônio. Estou interessado em ver como nossa cultura moldou a IA e como nossa cultura se transformou na era da IA. Como ela é representada, transportada, regulamentada, comercializada e mercantilizada em geral, não apenas em um laboratório. O engraçado é que conheci engenheiros do Google, mas eles não sabiam muito sobre as origens das redes neurais artificiais. E então, meu livro é uma maneira de dizer: “Ei, você esqueceu sua própria história”.

Matteo Pasquinelli é professor associado de Filosofia da Ciência na Universidade Ca’ Foscari de Veneza, onde coordena o projeto de pesquisa AIMODELS do ERC.